IntentGEO：面向推荐场景的意图感知生成式引擎优化
🧭 生成式推荐 · GEO 内容优化 ★ 深度解读
Renmin University of China · National University of Singapore
提出 AMO，用固定推荐指令核心加学习追加策略，防止 prompt drift，提升多意图下 item 可见性
📌 工作参考价值（4 点）
- 做 LLM 生成式推荐/电商 GEO 时，不要只评 topic-level 查询；用 P 系列（需求具体度）和 Q 系列（决策阶段）构造多 intent slots，能暴露改写策略在强匹配请求下的负收益（P5 普遍负增益）。
- Prompt optimization 容易把显式推荐指令漂移成促销话术（keywords/call-to-action），可借鉴 AMO 的 anchored 结构：固定推荐核心（事实留存、推荐理由），只学习可追加的改写策略，避免 seed 性能被优化破坏。
- 工程上可直接复用 citation-conditioned reward：用保留引用 rank 前后差、新引用、丢失引用的差分信号做 meta-optimizer 的反馈和验证，比全 prompt 优化更稳定。
- 若业务要接 agentic 推荐链路或闭源助手（如豆包 API），同一份改写可不重新训练直接迁移；AMO 在 agentic 和 Doubao 下均保持最高均值 rank gain，说明 anchored prompt 有较好跨界面复用性。
GEPA-Curator：面向自改进 Agent 的策展式学习框架
🧭 自改进 Agent 的策展式提示优化
UC Berkeley · ICSI · LBNL · Furiosa AI · KAIST
用任务策展与成功轨迹检索过滤噪声失败，提升 reflective prompt optimizer 性能，多基准最高超 GEPA 20.7%
📌 工作参考价值（4 点）
- 在构建 agentic 流程（客服助手、推荐理由生成、自动选品）时，不要把所有失败轨迹都喂给 prompt 优化器；先做失败归因，区分 prompt 缺陷、工具/harness 不稳定、环境随机性和 judge 噪声，只保留可归因于 prompt 的失败，提升学习信号质量。
- 成功轨迹检索可迁移到电商场景：为某类商品生成文案或操作手册时，检索相似商品/任务的历史成功 trajectory 作为 few-shot context 注入优化器，稳定优化方向并减少灾难性遗忘。
- 若线上已使用 GEPA/ACE 等 reflective optimizer，可前置“任务是否值得学习”的判断，并维护带 embedding 索引的成功轨迹库做检索，工程成本可控且效果提升显著（最高 20%+）。
- 结果提示数据飞轮中噪声样本会污染优化器；在推荐/广告的自动 prompt 优化与失败样本筛选上，应引入置信度过滤和成功案例检索机制。
CEPO：多智能体系统中协调器-执行器提示优化通用框架
🧭 多智能体提示优化框架
Korea University · KAIST · Google Cloud AI Research
将多智能体提示拆分为共享协调器提示与专属执行器提示，并分别按角色更新，可稳定提升现有提示优化器效果
📌 工作参考价值（4 点）
- 在电商多 Agent 系统（如 query 改写、召回、排序、文案生成）中，可把系统级协调规则放共享 coordinator prompt，把各 Agent 执行细节放 executor prompt；统一更新 coordinator 能防止多 Agent 局部优化偏离整体目标。
- 不必替换已有 prompt 优化器：CEPO 是结构化外壳，可直接叠加在 DSPy/OPRO 等现有搜索器上，改造流程成本低，论文在 11 个 benchmark 上显示稳定提升。
- 对预算敏感的业务 prompt 优化：CEPO 在 document-understanding MAS 的受控实验中显示优化预算效率更好、随 Agent 数扩展性能提升；可用少量预算先优化 coordinator，再分配预算给 executor。
- 架构上保持 executor 可独立调参/热更新，例如商品推荐解释、广告文案生成等下游执行器可单独迭代，不影响全局协调逻辑。
IF-MAP：多智能体系统中受影响函数启发的智能体优先级排序
🧭 多智能体优先级排序与黑盒优化
The Chinese University of Hong Kong, Shenzhen · Harbin Institute of Technology · School of Engineering and Applied Sciences, Harvard University
提出 IF-MAP 黑盒方法，通过提示扰动与局部响应模型估计 agent 改进潜力，为多智能体系统确定优化优先级
📌 工作参考价值（4 点）
- 在多 Agent 搜索/推荐链路（如 query 改写、召回、排序、文案生成各由一个 LLM agent 负责）中，用 IF-MAP 式探测确定高杠杆 agent：对每个 agent 的 prompt 做少量语义扰动，记录端到端指标变化，优先调优影响最大的节点，避免平均分配算力
- 不需要访问模型参数/梯度，适合采用 API 或第三方模型的业务；只依赖 prompt embedding 与最终 loss，可在生产环境旁路低成本采样，不影响线上
- 拟合正则化局部响应模型，用系数范数做打分，可作为轻量级优先级评估器；工程上可在小样本上快速执行，并将得到的优先级迁移到不同底层模型（论文显示跨模型有效），适合先在小模型上探测、再决定生产模型升级顺序
- 成本收益：相比全量优化所有 agent，该策略可节省 35–74% token，同时提升宏观指标，适合需要频繁迭代 prompt 或替换模型的团队
图结构Agent技能的进化优化框架GraphSkillEvo
🧭 Agent技能图结构化与进化优化
City University of Hong Kong · National University of Singapore · Southern University of Science and Technology
将Agent技能表示为有向图并用进化算子搜索优化，平均精度比SkillOpt提升1.76–4.01个百分点
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 中，把任务 SOP 改成有向图技能：节点为执行步骤（意图识别、商品召回、属性比较、推荐解释），边为条件路由，能减少 LLM 对非结构化指令的理解歧义和冗余，提升多步推理稳定性。
- 将图技能作为可自动优化的结构化搜索空间：维护多个候选技能，用验证集或线上指标（转化率、点击率、任务成功率）做适应度，对节点/边执行 LLM 变异与交叉，组合不同技能的优质子图，比单条 prompt 自改写更容易搜出强工作流。
- 工程上可采用“初始化→验证打分→选 Top-N→变异/交叉→再验证”的离线或低流量循环，自动优化搜索推荐 Agent 的 prompt/workflow；重点是把上下文相关转移显式建模为边，避免非结构化 prompt 的冗余。
- 实现交叉/变异时需加入图结构校验，防止生成不可达或环状技能图；这在实际落地中比论文结果的精度提升更关键。
AgentGrad：面向多智能体系统的干预引导提示优化
🧭 多智能体提示优化 · 文本梯度
Korea University · KAIST · Meta AI · UNIST
通过逐代理干预定位问题提示，并用语义聚类生成通用文本梯度，提升多智能体提示优化效果与效率
📌 工作参考价值（4 点）
- 在多智能体电商/搜索/广告 pipeline 中，出现最终失败时，不要直接凭感觉改 prompt：借鉴 sequential intervention，逐一替换单个 agent 的输出或行为，判断修改哪个 agent 才能消除失败，再针对性优化其 prompt。
- 用「干预后的正确输出」作为 agent-level supervision，让 LLM 基于具体输出差异生成文本梯度，而不是只给最终正确/错误标签；这能让 prompt 更新更细粒度、更可落地。
- 批量优化时，先对失败 case 对应的梯度做语义聚类，再按簇抽象成通用修正规则，避免把无关 failure mode 混在一起导致 prompt 过拟合或泛化差。
- 若要在生产环境自动提示迭代，AgentGrad 的干预定位+聚类聚合可减少 LLM 调用次数，实测优化墙钟时间比次快 baseline 平均少 2.5 倍，适合成本敏感场景。
LODESTAR：可信熵是导航而非测量——强化极化器防止冻结 LLM 被错误证据自信误导
🧭 RAG 答案选择 · RL 训练提示干预
Research Center for Information Technology Innovation, Academia Sinica, Taiwan
用 RL 训练固定 prompt 干预串，提升冻结 LLM 在 RAG 答案选择中对误导证据的鲁棒性
📌 工作参考价值（4 点）
- 生成式推荐/搜索候选重排：用 frozen LLM 的预测熵筛选候选时，注意低熵可能因上下文误导而不可靠。可在 prompt 前加一个固定的“polarizer”提示串（如“请先检查证据可信度”类），用离线 RL 训练，不改模型权重，在线零成本提高鲁棒性。
- 训练技巧：RL 奖励可来自 gold 标签与 LLM judge 组合，离线构建标签，推理时不依赖 judge。适合业务中无实时标注但离线有部分人工/gold 数据的场景。
- 架构选择：保持 LLM 冻结，只优化一个短的自然语言干预，比 fine-tune LLM 成本低且易于 A/B 测试；推荐系统可对不同候选池/域分别训练 polarizer 字符串。
- Agent 检索后答案融合：在 Agent 的 retrieve-then-answer 流程中，对多个检索证据采用基于熵的选择时，可引入干预提升对误导证据的韧性；消融实验证明能降低误导段落被读取概率。
GRADRAG：跨组件提示自适应实现多智能体RAG协同优化
🧭 RAG多智能体协同优化
Bloomberg
将RAG管线建模为计算图，通过评估反馈反向传播优化上游Agent提示，取得12-15pp偏好提升
📌 工作参考价值（4 点）
- 在搭建电商搜索/问答的Agent管线（检索→证据整理→答案生成→校验）时，可借鉴GRADRAG的图结构建模与反馈传播思路：设计一个Evaluator对最终答案和中间证据打分，将结构化反馈反向发送给上游Agent（如检索改写、图谱构建），用少量迭代联合优化全链路，避免各环节独立调优导致的误差累积。
- 两阶段自适应提示机制可直接落地：先让Evaluator输出简短评判（太模糊/证据不足），再据此生成具体改进指令，带动检索和生成prompt的自动更新，降低人工设计prompt的成本。
- 早停策略对成本敏感的场景很有价值：Evaluator判断答案质量达标即可终止迭代，避免无效重试，平衡效果与推理开销。
- 该方法与底层检索范式解耦，支持chunk-based和graph-based两种模式，因此无论团队当前用的是语义分块检索还是知识图谱增强，都能叠加GRADRAG提升多步推理效果，适配迁移成本低。
问，勿判：二进制问题驱动的可解释 LLM 评估与自改进
🧭 可解释 LLM 评估 · 二进制问题分解 ★ 深度解读
Capital One, AI Foundations
将评估准则分解为原子化二进制问题，实现可解释、可诊断且支持迭代提示优化的 LLM 评估框架
📌 工作参考价值（4 点）
- 可解释的离线评估体系：在推荐/搜索场景中，生成式模型输出（如商品推荐理由、搜索摘要、对话式回应）的评估常依赖人类，或使用单一分数（如 BERTScore）难以定位问题。BINEVAL 的思路可直接复用：将业务评估维度（相关性、信息量、品牌安全、时效性）分解为一组原子化 yes/no 问题，由 LLM 逐一回答并聚合得分，每个 badcase 都能追溯到具体问题，让离线评估从黑盒变为可诊断的诊断工具。
- 自动化 Badcase 分类与监控：线上实验通常只能看到整体指标下跌，不知道哪类问题在增多。可以借鉴 BINEVAL 的二进制问题设计，构建一套自动化质检 pipeline，对线上采样结果用 yes/no 问题检测是否违背特定规则（如“是否包含虚假价格”“是否推荐已下架商品”），再聚合为各类问题发生率，快速定位系统退化点。
- 迭代式 Prompt 优化：在 Agent 或生成式推荐场景，prompt 版本迭代缺乏客观反馈信号。可用 BINEVAL 的“自我更新”或“跨模型更新”模式，对失败样例提取教训并自动改写 prompt。该 trick 尤其适用：当模型已有能力但未被正确引导时（如格式化输出、关键词包含），通过少量失败样本的二进制反馈即可稳定提升；但对需要精确计数或复杂推理的能力瓶颈，则应避免过度优化，以免 prompt 膨胀损害其他维度。
- 评估者模型迁移的对齐：当从一个大模型（如 GPT-4）迁到较小开源模型作为评估器时，BINEVAL 的跨模型 prompt 更新能利用强大模型的二进制问答结果作为参考，通过找出不一致的二进制问题并提取教训来对齐新模型的评估行为，降低迁移成本并保持评估一致性。
MAS-PromptBench：多智体系统中提示优化何时有效？
🧭 多智体提示优化基准
Johns Hopkins University
首次系统基准测试多智体场景下的提示优化，揭示其有效条件与敏感性
📌 工作参考价值（4 点）
- 当业务用多智体做商品描述生成、客服协作等时，应先手动设计角色提示再简单微调，仅需少量迭代即可达到大部分收益
- 不同通信协议（如流水线 vs 辩论）对提示优化的敏感度差异大：在高安全要求场景优先采用融合多智体输出再优化的模式
- 团队规模增大时提示优化的边际收益下降，推荐保持 3-5 个角色的轻量架构，避免优化成本指数增长
- 系统提示优化可替代模型微调，快速适应业务变化（如活动主题切换），适合需要频繁调整策略的电商推荐 Agent
SAGE：通过智能体引导探索的随机提示优化
🧭 提示优化 · 多智能体协作
Slingshot AI · University of Cambridge
提出多智能体诊断执行框架 SAGE，通过随机搜索与连续 A/B 测试将提示优化累积为统计显著的次日留存提升
📌 工作参考价值（4 点）
- 面向对话式推荐或客服机器人，可用 Agent 自动诊断 Bad Case 并生成修复提示，替代人工迭代
- 借鉴连续 A/B 测试范式，将单次噪声大的实验累积为长期关键指标（如留存、转化）的可靠增益
- 错误信息驱动的随机搜索策略成本低，可用于推荐系统召回/排序模块的 prompt 候选生成
- 多智能体协同中加入代码执行（如数据统计、校验），能提升诊断深度，可用于商品推荐理由生成的自动化调试
通过个性化视觉提取与自适应学习教会多模态推荐模型“看见”
🧭 多模态序列推荐 · 视觉信号增强 ★ 深度解读
Fudan University · Imperial College London
提出即插即用框架REVEAL，通过反馈引导视觉提取和自适应视觉学习提升多模态序列推荐中视觉信号的利用率。
📌 工作参考价值（4 点）
- 视觉特征增强可复用：当业务中视觉内容（商品图、短视频封面）对CTR/CVR贡献不足时，可借鉴FVE思路——用任务反馈（如最终推荐 loss）迭代优化视觉提示词，无需微调VLM，将静态通用视觉特征转为用户偏好对齐的表示。
- 缓解模态不平衡的轻量方案：AVL通过计算单模态损失差距动态缩放视觉梯度，无需额外监督、不改变骨干结构。电商推荐中文本信息（标题、属性）常过强，可引入类似机制让模型更公平地学习图像、音频等弱模态。
- 即插即用与零推理开销：REVEAL仅在训练阶段生效，推理完全还原原始管道，非常适合业务已上线的模型做低成本升级。
- 提示词工程与反馈循环设计：FVE中利用VLM基于推荐错误分析优化提示词的范式，可迁移至生成式推荐（例如用LLM生成商品描述或创意文案时，以最终转化指标反馈迭代提示模板）。
LLM 引导的进化搜索优化医学决策管道
🧭 LLM 引导的进化优化与医学决策管道 ★ 深度解读
Sber AI Lab · AIRI
利用 LLM 引导的 MAP-Elites 进化算法在推理阶段自动发现超越人工设计的医学分诊、交互问诊和图像分类策略，无需微调模型。
📌 工作参考价值（4 点）
- 程序级搜索代替手工调参：将业务决策管道（如推荐排序、出价策略、Agent 对话流）设计为可执行的 Python 模块，以 LLM 作为 mutator 自动变异 prompt、控制逻辑、投票规则等，而不仅是调整单个 prompt，可迁移到电商 Agent 的策略自动优化。
- 安全/业务目标下的适应度设计：借鉴论文中分诊任务的不对称加权适应度（高代价错误如漏召、低召回加权更高），在推荐场景中可为关键指标（如转化、高价值商品召回）赋予更高权重，同时约束输出合规性（如 JSON 格式）作为准入条件。
- 推理时进化代替模型微调：在冻结模型上通过进化搜索优化策略，降低计算成本，适合频繁变更的业务规则或个性化策略迭代，例如对已部署的推荐 Agent 做安全策略补丁。
- 交互式场景的成本-质量前沿探索：通过 MAP-Elites 在对话轮次/ token 消耗与准确性之间找到帕累托前沿，可复用于电商客服 Agent 的对话策略优化，实现低延迟高满意度的自适应询问与响应。